#destilación maestro-alumno

Filtrar, luego repesar: Nueva granularidad en destilación on-policy

FiRe-OPD mejora la destilación on-policy con filtrado de trayectorias y repesado suave de tokens. Obtén +6.25 en AIME 2024 y +18.81 en Miner ¡Optimiza tus LLMs!